Por Mário Marques da Silva, Diretor do Departamento de Engenharias e Ciências da Computação da Universidade Autónoma de Lisboa
Falar hoje de Inteligência Artificial (IA) é falar de escolhas que influenciam diretamente a nossa vida. Diagnósticos médicos, concessão de crédito, vigilância, educação ou trabalho com IA são uma realidade. A questão já não é apenas o que a tecnologia “pode” fazer, mas sobretudo o que “deve” fazer.
Podemos afirmar que reinam a ambivalência entre o entusiasmo e a preocupação quanto aos efeitos da IA. Para alguns, a IA pode ser uma solução universal para os grandes desafios da humanidade, desde que guiada por princípios de justiça e responsabilidade. Outros alertam que, sem regulação e compreensão, a IA pode agravar desigualdades, enviesar decisões e fragilizar direitos fundamentais.
A necessidade de complementaridade humano-máquina é, pois, evidente. Nem os sistemas algorítmicos são neutros, nem os seres humanos o são: ambos carregam enviesamentos, que se podem cancelar mutuamente. A máquina pode ajudar-nos a identificar padrões humanos invisíveis ou subjetivos, mas só o ser humano pode enquadrar esses resultados à luz da ética, da justiça e do bem-estar coletivo. O caminho está, a meu ver, no equilíbrio.
Importa refletir sobre o papel da IA em áreas como a educação, a importância da literacia digital, a privacidade, saúde mental e cidadania na era digital. Um dos maiores riscos da atualidade reside no poder invisível dos algoritmos das redes sociais, que controlam o fluxo de informação e permitem enviar mensagens personalizadas a cada indivíduo. Esse processo, muitas vezes guiado por objetivos comerciais ou políticos, pode criar realidades distintas para diferentes pessoas, condicionando opiniões, polarizando sociedades e manipulando massas inteiras sem que estas tenham plena consciência disso. E essa manipulação pode ocorrer tanto à direita como à esquerda ou ao centro político. Estarão as democracias em risco? Não estaremos já a viver numa era em que ditaduras se escondem atrás da aparência de democracias bonitas, mas fragilizadas por uma manipulação algorítmica subtil e silenciosa?
Recentemente, participei na ETHICOMP 2025, uma conferência internacional que se realizou em Lisboa, e que demonstra que não estamos sozinhos neste esforço para promovermos a reflexão, o diálogo e a responsabilidade, abordando estas temáticas que tanto impactam o mundo dos nossos dias e representam uma revolução inevitável que já está em marcha. Académicos, filósofos, tecnólogos e profissionais de vários países trouxeram perspetivas diferentes, mas convergiram numa ideia comum: a IA deve ser desenhada e utilizada para servir o bem comum.
Afinal é fundamental continuarmos a reforçar o compromisso de, seja qual for a discussão, colocarmos o ser humano no centro da inovação tecnológica.
